即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報資料庫
科技生活

·6 個月前·責任編輯
#AI資安#AI工廠#最低權限原則#後量子密碼學#戴爾科技
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

隨著AI工廠規模迅速擴張,企業面臨前所未有的資安挑戰,從保護大型語言模型(LLM)內部的敏感資料,到應對利用AI代理程式發動的「活地圖攻擊」;業界專家指出,最低權限原則與後量子密碼學將成為未來保障AI基礎設施安全的關鍵。

隨著人工智慧(AI)技術持續發展,企業紛紛投入建置「AI 工廠」,以支援從模型訓練到推論的各項需求。然而,這也同時催生了基礎設施面臨的全新資安挑戰,迫使企業必須重新思考其安全防禦策略。

根據《SiliconANGLE》報導,AI 工廠的建置不僅涵蓋了電力、散熱與機架等硬體設計的革新,資料儲存層也需透過人工智慧資料平台進行重新規劃,以支援檢索增強生成(Retrieval-Augmented Generation, RAG)等新興人工智慧資料元素。戴爾科技(Dell Technologies Inc.)院士兼系統架構副總裁 Mukund Khatri 指出,人工智慧帶來了額外的威脅,其中大型語言模型(Large Language Models, LLMs)雖然看似程式碼,但本質上是帶有秘密的模型權重等資料,因此需要像程式碼一樣被保護,因為這些資料極其珍貴。

人工智慧基礎設施的複雜性攀升,資安挑戰也隨之增加。新型威脅包括「活地圖攻擊」(living off the land),攻擊者可能利用受信任的工具甚至人工智慧代理程式,反過來對組織發動攻擊。過去被視為可選功能的譜系追溯(lineage)、溯源(provenance)及可觀測性(observability),如今已成為安全人工智慧系統的必要條件。

最低權限原則(least privilege)在其中扮演核心角色,確保代理程式僅被授予其運作所需的最低限度存取權限。戴爾科技已將此概念直接整合至其人工智慧資安架構中。Mukund Khatri 強調,部署情境的完整性、監控與可觀測性,在代理程式普及化後將變得極為重要,必須監控身分並讓其以最低權限模式運作。

展望未來,後量子密碼學(post-quantum cryptography)被視為人工智慧基礎設施資安的下一個重大挑戰。當量子電腦能力足以強大時,現有幾乎所有系統中嵌入的加密技術可能被破解,導致組織面臨風險。Khatri 預期,未來兩到三年內將有大量轉型發生,從客戶採購新硬體到整個軟體生態系統的轉變,這將是一個耗時數年、複雜且強制性的治理重新定義事件。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源